Địa bàn huyện Chư Pưh hiện nay trước đây vốn là 3 xã: Ia Hrú, Ia Le, Nhơn Hòa và một phần xã Ia Ko thuộc huyện Chư Prông.

Ngày 17 tháng 8 năm 1981, 4 xã: Ia Hrú, Ia Ko, Ia Le, Nhơn Hòa chuyển sang trực thuộc huyện Chư Sê mới thành lập.

Ngày 9 tháng 11 năm 2000, thành lập xã Ia Phang trên cơ sở 12.710,5 ha diện tích tự nhiên và 5.214 người của xã Nhơn Hòa, thành lập xã Ia Dreng trên cơ sở 2.351,7 ha diện tích tự nhiên và 2.486 người của xã Ia Hrú.

Ngày 16 tháng 2 năm 2005, thành lập xã Ia Hla trên cơ sở 12.447 ha diện tích tự nhiên và 2.283 người của xã Ia Ko.

Ngày 21 tháng 4 năm 2006, thành lập xã Ia Blứ trên cơ sở 19.114,50 ha diện tích tự nhiên và 4.688 nhân khẩu của xã Ia Le.

Ngày 17 tháng 4 năm 2008, thành lập thị trấn Nhơn Hòa trên cơ sở 2.100,00 ha diện tích tự nhiên và 10.500 người của xã Nhơn Hòa. Xã Nhơn Hòa còn lại 3.889,50 ha diện tích tự nhiên, 1.840 người và đổi tên thành xã Chư Don.

Ngày 27 tháng 8 năm 2009 Chính phủ ban hành Nghị quyết số 43/NQ-CP của Chính phủ[1]. Theo đó, thành lập xã Ia Rong thuộc huyện Chư Sê trên cơ sở điều chỉnh 2.311,18 ha diện tích tự nhiên và 4.518 người của xã Ia Hrú, xã Ia Hrú còn lại 3.951,31 ha diện tích tự nhiên và 7.199 người. Đồng thời, thành lập huyện Chư Pưh trên cơ sở điều chỉnh 71.695,02 ha diện tích tự nhiên và 54.890 người của huyện Chư Sê.[3]

Sau khi thành lập, huyện Chư Pưh có 71.695,02 ha diện tích tự nhiên và 54.890 người; có 9 đơn vị hành chính trực thuộc gồm thị trấn Nhơn Hòa (huyện lỵ) và 8 xã: Ia Le, Ia Blứ, Ia Phang, Chư Don, Ia Dreng, Ia Hla, Ia Hrú, Ia Rong.